A Lie Detector Test for Language Models: Reading Knowledge a Model Won't Reveal
语言模型测谎：读取模型不愿透露的知识
🧭 LLM 内部知识探测与隐藏知识审计
StackOne Technologies
用内部状态探测识别 LLM 隐藏但已知的答案，区分“不愿答”与“不会答”
📌 工作参考价值（4 点）
- 在电商/广告 Agent 上线前，用 PIR 式内部探测评估模型是否真正掌握商品知识或策略却因 prompt 冲突、安全过滤误伤而故意不输出，避免仅靠行为日志误判能力。
- 对经过 RLHF 或 unlearning 的模型，用内部识别信号验证敏感知识是否真正遗忘而非仅在输出层被压制，可用于合规删除用户数据或品牌敏感信息的审计。
- 该方法无需标注真值，可对长尾商品/query 做无标签知识覆盖度审计，帮助识别模型“知道但不说”的候选，减少标注成本。
- 可将候选答案的内部识别分数作为生成结果可信度辅助特征或 Agent 决策路由依据，在关键推荐/搜索环节检测模型是否隐藏高置信答案。